Which Hyperparameters Matter? A Game-Theoretic Framework for Interpretable Hyperparameter Sensitivity Analysis
博弈论框架下的可解释超参数敏感性分析
🧭 超参数重要性分析 · 博弈论
Louisiana State University
用 Shapley 效应与 Pareto 前沿分析多目标场景下超参数对各目标的影响，识别关键超参数以缩小搜索空间
📌 工作参考价值（4 点）
- 超参数重要性排序：在训练 CTR/CVR 模型前，先用少量样本计算每个超参数的 Shapley 效应，快速锁定对关键指标（如 AUC、LogLoss）真正敏感的参数，避免全量 grid search 浪费资源。
- 多目标权衡可视化：对于同时优化点击率与转化率的推荐模型，利用 Pareto 前沿分析可直观看到不同超参配置在双目标上的 trade-off，辅助业务决策（例如选择偏重 CVR 的配置）。
- 早期模型评估：在模型开发初期，通过 Pareto 前沿分布判断当前超参空间是否已接近有效边界，若远离前沿则考虑重构搜索空间或更换架构，减少无效迭代。
- AutoML 流程增强：可将该框架嵌入现有 HPO 流水线，在贝叶斯优化前先运行敏感性分析，自动剔除低影响超参数，提升搜索效率。